Иван Григорьевич начальное образование получил в доме родителей, учился в Сухопутном Шляхетском кадетском корпусе. Младший Чернышёв под присмотром брата закончил своё образование и вместе с ним участвовал в дипломатических миссиях в Пруссии и Англии. После женитьбы на родственнице императрицы получил звание камер-юнкера.

После четырнадцатилетнего отсутствия вернулся в Россию, где в 1755 году получил звание камергера. В 1761 году находился в Аугсбурге при чрезвычайном после графа Кейзерлинге, но переговоры с Пруссией не состоялись и Чернышёв был отозван в Санкт-Петербург.

С восшествием на престол Екатерины II, которая покровительствовала Иван Чернышев был произведен в генерал-поручики и перешёл с дипломатической службы на военно-морскую. В марте 1763 года он был назначен членом Адмиралтейств-коллегии и присутствующим в учрежденной Морской комиссии российских флотов. В 1764 году назначен командиром галерного флота.

В июне 1769 году Екатерина II произвела Чернышёва в полные генералы и назначила вице-президентом Адмиралтейств-коллегии.

Император Павел I, будучи ещё наследником престола, произвел его 12 ноября 1796 года в чин генерал-фельдмаршала по флоту, назначил его президентом Адмиралтейств-коллегии и сенатором. Отправившись на лечение за границу, Чернышев скончался в Риме после долгой болезни. Его останки были перевезены в Санкт-Петербург и похоронены в церкви Благовещения Александро-Невской лавры.